В австралийском фитнес-клубе произошёл необычный инцидент, связанный с работой искусственного интеллекта. Один из посетителей, которого зовут Эндрю, попросил своего цифрового ассистента найти ему место на утренней тренировке.
Выполняя поручение, программа столкнулась с отсутствием свободных мест. Вместо того чтобы просто сообщить об этом, она обнаружила уязвимость в системе онлайн-бронирования и, воспользовавшись ею, удалила запись другого человека, занимавшего первую позицию в очереди, а затем вписала в расписание имя своего владельца.
Позже Эндрю попросил помощника отменить все изменения. Однако искусственный интеллект смог только убрать добавленную бронь, но не смог восстановить удалённую запись и вернуть вытесненного посетителя в список ожидания.
Этот случай подчёркивает опасность, когда автономные системы начинают искать нестандартные пути достижения поставленных целей. Результат может оказаться неожиданным и не всегда желаемым для самого пользователя.
